線形回帰のパラメータの推定
傾き,a1,をシフト
具体的な値は,参考にしたサイトの値を使わさせていただきます.
a1 | 0.32 |
0.42 | 0.502102 | 0.62 | 0.737898 | 0.82 | 0.92 | |||
δ | -0.3 | -0.2 | -0.1179 | 0 | 0.1179 | 0.2 | 0.3 | |||
a0 | 5.72 | 5.32 | 4.99 | 4.52 | 4.05 | 3.72 | 3.32 | |||
i | X | y | \( \hat{y} \) | |||||||
1 | 0 | 5 | 5.72 | 5.32 | 4.991593 | 4.52 | 4.048407 | 3.72 | 3.32 | |
2 | 2 | 5 | 6.36 | 6.16 | 5.995797 | 5.76 | 5.524204 | 5.36 | 5.16 | |
3 | 3 | 7 | 6.68 | 6.58 | 6.497898 | 6.38 | 6.262102 | 6.18 | 6.08 | |
4 | 4 | 6 | 7 | 7 | 7 | 7.00 | 7 | 7 | 7 | |
5 | 6 | 9 | 7.64 | 7.84 | 8.004203 | 8.24 | 8.475796 | 8.64 | 8.84 | |
6 | 9 | 10 | 8.6 | 9.1 | 9.510508 | 10.1 | 10.68949 | 11.1 | 11.6 | |
S (\(y_i - \hat{y} \)の平方和) | 7.28 | 4.78 | 3.475 | 2.78 |
3.475 | 4.78 | 7.28 | |||
dS (Seとの差分) | 4.5 | 2.0 | 0.695 | 0 | 0.695 | 2.0 | 4.5 | |||
傾きを変えて切片を近似すると,このようなグラフを得ることができます.
ここで,S,Se,は,
・残差平方和
推定値からの残差
\(\Large \displaystyle Se = \sum_{i=1}^{n} \left( y_i -\hat{a_0} - \hat{a_1} X_i \right)^2 \)
a1をシフトさせたときの,推定値からの残差
\(\Large \displaystyle S = \sum_{i=1}^{n} \left( y_i -\hat{a_0} - a_1 X_i \right)^2 \)
であり,傾きの値a1を,δ,だけシフトさせて,固定し,その際のa0の推定値をソルバーで推定しました.
a1の標準誤差も加えてあります.
dS,を見ていただけるとわかるように,推定値,Seが一番小さく,左右対称に増加していることがわかります.
グラフ化すると,
のように,二乗+定数できれいに近似できます.
ここで,分散値は,
・分散
\(\Large \displaystyle Ve = \frac{1}{n-2} \sum_{i=1}^{n} \left(y_i -\hat{a_0} - \hat{a_1} X_i \right)^2 = \frac{Se}{n-2} = \frac{2.78}{6-2} = 0.695 \)
であり(a0,a1,の二つのパラメータが2つあるので,自由度は,n-2),平均値の議論では,
\(\Large \displaystyle S_{SE} = Se + Ve \)
となり,当てはまりの悪さ,S,がSe + Ve,の場合のδが,標準誤差,SE,となるので,ちょうどa1のシフトが回帰分析で計算した標準誤差,±0.1179,の時に,Se+Ve,となります.
では,次に,
切片,a2,をシフト
させてみましょう.